多会话智能体强化学习：分层优势估计与塑造
🧭 Agent 强化学习 · 多会话轨迹优化 ★ 深度解读
LARK, HKUST(GZ) · Foundation Model Lab, Huawei · City University of Hong Kong · HKUST
提出 Mosaic，用 session-aware 轨迹优势与 session 级边际信息增益塑造，在 BrowseComp 上超越广播基线且会话数更少
📌 工作参考价值（3 点）
- 搜索/对话 Agent 常因 query 改写、上下文压缩、子 agent 并行搜索产生多会话轨迹，RL 训练时不要简单广播轨迹奖励；可借鉴 session-aware advantage：按 outcome 分组对 session 数做居中排名，成功样本少 session 给更高优势，失败样本多 session 降低负优势，既提升样本效率又控制推理成本。
- 用 answer-likelihood 的边际信息增益做过程监督，无需额外 critic，仅需两次前向计算 log-prob；按 session 类型（普通、压缩、子代理）分别归一化，避免类型分布偏差，适合多组件 Agent 架构。
- 工程实现上，把每个 session 作为独立 training segment，聚合时保持 trajectory 级 token 权重一致，可兼容 Megatron 等多 segment 训练；对多轮搜索/电商 Agent 的长轨迹训练有直接迁移价值。
CliffCompaction：面向长程编码智能体的高成本效率上下文压缩
🧭 Agent 长程上下文压缩与成本优化
Carnegie Mellon University · Bosch Center for AI
一种只截断/丢弃、不重写原文的自动压缩法，在受限上下文下最多降低50%成本并保持或提升编码Agent性能
📌 工作参考价值（4 点）
- 在需要长会话/多轮 Agent 的场景（如导购、客服、推荐解释）中，上下文压缩优先采用“只截断/丢弃原始内容、不重写”，避免摘要改写引入信息偏差，可显著降低 API 成本且保持质量。
- 强制“绝不压缩已压缩内容”，每轮压缩都基于原始会话/文档，防止跨轮次的上下文漂移累积，适合超过百万 token 的持续学习/多轮交互。
- 将压缩逻辑做成 API proxy，不改动现有 agent scaffold 即可接入 Claude Code、Codex 等，业务侧可快速对现有推荐/广告 Agent 工作流做成本优化和 A/B 测试。
- 用相同预算做 test-time scaling（如并行采样多个推荐解释/策略）时，压缩带来的 per-rollout 节省让更多采样成为可能，可能以更低成本获得性能提升。
SoL-Pi：递归扩展自动研究循环，打造高效 Agent Harness
🧭 Agent harness 层 token 效率优化
NVIDIA · NTU · MIT
在 harness 层递归搜索自动研究循环，保留四种 token 效率机制，性能不变但成本降约三分之一
📌 工作参考价值（4 点）
- 上下文压缩可迁移到多轮推荐 Agent：Online Context Compact 与 Evidence-Preserving Reducer 的思路能直接用于电商对话推荐或搜索 Agent 的长对话历史管理，保留关键商品/用户意图证据，削减冗余交互，降低推理 token 与延迟。
- Action Fusion 减少工具调用开销：在 Agent 需要多次调用商品检索、库存查询、价格比较等 API 时，将多个小操作合并为一次批量执行，可以显著减少重复上下文注入，节省成本；对广告投放 Agent 的多步出价查询也有参考价值。
- ObservationPack 打包观测结果：让 Agent 一次接收多个工具返回的结构化摘要而非逐条处理，可以提升上下文利用率，适合高吞吐的搜索/推荐实时决策场景。
- 递归自我改进的 harness 搜索思想：可以在业务 Agent 流水线上自动探索 token 效率优化配置（如提示压缩、工具调用顺序），用离线环境评估成本与效果，实现自动降本，不必手工调优。
长运行AI Agent记忆中的压缩悬崖
🧭 Agent 长期记忆压缩与安全规则保留
University of Passau, Passau, Germany · IT:U, Linz, Austria
提出 Knowledge Triage 框架，通过分类与确定性算子避免安全规则在长上下文压缩中快速丢失
📌 工作参考价值（4 点）
- 将 Agent 上下文知识分为需逐字保留的安全/合规规则与可粗粒度压缩的日志/经验，不同类别走不同压缩策略，避免生产 Claude /compact 这类统一 summarization 造成规则坍塌。
- 在电商/推荐 Agent 中，价格上下界、库存状态、平台政策、prompt 约束等规则适合用 TypeCompact 按类型保真度压缩，并附加确定性验证器检查规则是否完整，防止多轮任务后策略漂移。
- TypeRetrieve 的“规则 pinned ahead of relevance”思路可直接用于 RAG/长期记忆：先返回适用规则，再按相关性补充内容，保证召回合规边界。
- AgentArtifactCorpus 可作为测试压缩/检索策略的外部基准，尤其适合评估长流程 Agent 在不同压缩轮次下的安全规则 retention。
CompactionRL：基于上下文压缩的强化学习训练长程智能体
🧭 长程Agent强化学习与上下文压缩
Tsinghua University
提出CompactionRL，联合优化任务执行与上下文压缩，使LLM智能体从压缩长轨迹中学习，显著提升长程编码任务性能
📌 工作参考价值（4 点）
- 多轮对话推荐/搜索Agent的上下文压缩训练：可借鉴CompactionRL思路，让推荐Agent在交互中自主生成紧凑的对话历史摘要，代替人工设计的截断或固定压缩模板，通过强化学习优化压缩质量和任务完成度的平衡，提升长对话下的推荐准确率和用户满意度。
- 联合损失的Token级归一化设计：在处理多目标强化学习（如推荐准确性与解释性文本生成）时，可采用token级别的损失加权，根据序列长度动态调整不同损失项的权重，避免长文本损失主导训练，适用于训练同时生成推荐理由和结果的Agent。
- 跨轨迹广义优势估计（GAE）：当训练数据包含多个不同推荐会话（轨迹）时，可借鉴跨轨迹GAE的技巧，更稳定地估计优势值并分配信用，改善大规模离线RL训练的效果。
- 推理阶段的上下文压缩部署：训练得到的自主压缩能力可简化在线推理，使推荐/搜索Agent在有限上下文窗口内支持更长的用户交互历史，降低抛弃历史带来的信息损失，同时节约上下文计算成本。